今天要介紹的是核函数 (Kernel),這種演算法是在1990年的時候被提出的,來自Google Research的Corinna Cortes則是創造這種演算法的先驅之一,而使用這種演算法,可以將非線性問題得以使用線性函數來解決,例如將SVM (Support Vector Machine) 問題以線型函數解決等。
聽起來很抽象,以下方圖片來解釋吧。首先看左邊的圖,這個圖乍看之下無法用線性方法來分類,也就是沒辦法只畫一條直線就把紅色跟藍色類別的資料完全分開,但這時候我們可以透過Kernel方法,把原本的2D圖,把資料加入一個第三象限的特徵,進而轉換為右邊的3D圖,換為3D圖後,我們突然發現可以找到一個平面,是可以完美將紅色以及藍色的資料切開的,如左圖裡的那塊斜切平面,因此原本沒辦法用線性函數解決的問題,因為利用了這個技巧,現在也可以使用線性函數把問題解決,這也就是今天所介紹的Kernal的特點。